AI в сравнение с ядрените оръжия и потенциално може да доведе до изчезване на хората: доклад
Правителството на САЩ има „ясна и спешна необходимост“ да действа, тъй като бързо развиващият се изкуствен интелект може потенциално да доведе до изчезване на хората чрез въоръжение и загуба на контрол , според доклад, поръчан от правителството.
Докладът, получен от списание TIME и озаглавен „План за действие за повишаване на безопасността и сигурността на усъвършенствания AI“, заявява, че „възходът на усъвършенствания AI и AGI има потенциала да дестабилизира глобалната сигурност по начини, напомнящи на въвеждане на ядрени оръжия.“
„Като се има предвид нарастващият риск за националната сигурност, породен от бързо разширяващите се способности на ИИ от въоръжение и загуба на контрол - и по-специално фактът, че продължаващото разпространение на тези способности служи за увеличаване на двата риска - има ясна и спешна нужда от правителството на САЩ да се намеси“, се казва в доклада, издаден от Gladstone AI Inc.
Докладът предлага план за интервенция, който е разработен в продължение на 13 месеца, през които изследователите са разговаряли с над двеста души, включително тези от правителствата на САЩ и Канада, големи доставчици на облачни услуги, организации за безопасност на ИИ и експерти по сигурността и компютрите .
Планът започва с установяване на временни усъвършенствани предпазни мерки за ИИ, преди да ги формализира в закон. След това предпазните мерки ще бъдат интернационализирани.
Някои мерки биха могли да включват нова агенция за изкуствен интелект, която да ограничи нивото на изчислителната мощност, на което е определено ИИ, изисквайки компаниите за изкуствен интелект да получат разрешение от правителството за внедряване на нови модели над определен праг и да обмислят забрана на публикуването на колко мощен ИИ моделите работят, като например при лицензиране с отворен код, съобщава TIME.
Докладът също така препоръчва на правителството да затегне контрола върху производството и износа на AI чипове.
